El Ministerio de Tecnologías de la Información de la India ordenó a X, la empresa de Elon Musk, que implemente cambios técnicos y de procedimiento inmediatos en su chatbot de IA, Grok, después de que usuarios y legisladores informaran sobre la generación de contenido obsceno. La orden, emitida el viernes, exige a X que restrinja a Grok la generación de contenido que involucre desnudez, sexualización, material sexualmente explícito u otro contenido ilegal.

El ministerio dio a X 72 horas para presentar un informe de medidas adoptadas que detalle los pasos dados para evitar el alojamiento o la difusión de contenido considerado obsceno, pornográfico, vulgar, indecente, sexualmente explícito, pedófilo o prohibido de otro modo por la ley india. TechCrunch revisó la orden, que advertía que el incumplimiento podría poner en peligro las protecciones de puerto seguro de X, que otorgan inmunidad legal frente a la responsabilidad por el contenido generado por los usuarios en virtud de la ley india.

La acción se produce tras las preocupaciones planteadas por los usuarios que compartieron ejemplos de Grok siendo incitado a alterar imágenes de personas, principalmente mujeres, para que parecieran llevar bikinis. La parlamentaria india Priyanka Chaturvedi presentó una denuncia formal sobre el asunto.

Grok, lanzado por X el año pasado, es un chatbot de IA diseñado para responder preguntas y generar texto. Aprovecha un modelo de lenguaje grande (LLM), un tipo de algoritmo de inteligencia artificial que utiliza técnicas de aprendizaje profundo y conjuntos de datos masivos para comprender y generar lenguaje humano. El incidente pone de relieve los retos que plantea garantizar que los modelos de IA se adhieran a las normas éticas y legales, en particular en lo que respecta a la generación de contenidos y el posible uso indebido.

La directiva del gobierno indio subraya el creciente escrutinio regulatorio de las tecnologías de IA y las plataformas de redes sociales. Las protecciones de puerto seguro, establecidas en virtud de la Sección 79 de la Ley de Tecnologías de la Información de 2000, proporcionan un escudo crucial para las plataformas frente a la responsabilidad por el contenido generado por los usuarios, pero esta protección está condicionada al cumplimiento de las leyes y regulaciones indias.

La orden del Ministerio de Tecnologías de la Información exige a X que demuestre medidas concretas adoptadas para abordar los problemas identificados con Grok. Esto incluye la implementación de salvaguardias técnicas para evitar la generación de contenido inapropiado y el establecimiento de procedimientos claros para la moderación de contenido y la denuncia de usuarios. Es probable que el informe de medidas adoptadas detalle los algoritmos, filtros y procesos de revisión humana específicos que X está implementando para cumplir con la directiva.

El incidente y la subsiguiente acción del gobierno podrían tener implicaciones más amplias para la industria de la IA. Enfatiza la necesidad de que los desarrolladores prioricen la seguridad y las consideraciones éticas en el diseño y la implementación de los modelos de IA. También señala un enfoque regulatorio más proactivo por parte del gobierno indio hacia la IA y las plataformas de redes sociales, lo que podría conducir a requisitos de cumplimiento más estrictos y una mayor rendición de cuentas. El resultado de esta situación podría sentar un precedente sobre cómo otros países regulan la generación de contenido impulsada por la IA y la responsabilidad de la plataforma.